Nguyễn Sỹ Ngọc quê ở Thanh Trì, Hà Nội. Từ năm 1939 đến năm 1944, ông theo học tại Trường Mỹ thuật Đông Dương Khóa XIII. Sau khi tốt nghiệp, ông tham gia Hội Văn hóa Cứu quốc từ những ngày đầu của cuộc Cách mạng tháng Tám năm 1945. Trong giai đoạn kháng chiến chống Pháp, Nguyễn Sỹ Ngọc tham gia Đoàn quân Nam tiến của Vệ quốc quân Việt Nam vào miền Nam Việt Nam để giúp quân dân miền Nam chống Pháp, ông phụ trách công việc ở Đoàn kịch Kháng chiến. Sau đó, ông công tác ở Xưởng họa Liên khu IV, và từ năm 1950 đến năm 1954, làm giảng viên ở Trường Mỹ thuật Việt Nam tại chiến khu Việt Bắc.

Sau ngày miền Bắc Việt Nam được giải phóng, Nguyễn Sỹ Ngọc làm giảng viên tại Trường Đại học Mỹ thuật Hà Nội từ năm 1955 đến năm 1965. Có tài liệu cho rằng trong thời kỳ giữa thập niên 1950, ông đã từng có hành động chống đối lại chính sách của Đảng Cộng sản Việt Nam về việc hạn chế quyền tự do phát biểu.[1] Trong khoảng thời gian từ năm 1965 đến năm 1973, ông làm việc với trò họa sĩ của tổ sáng tác tại Hội Mỹ thuật Việt Nam. Sau đó, ông chuyển sang làm họa sĩ cho báo Văn nghệ. Từ năm 1957, Nguyễn Sỹ Ngọc là hội viên ngành hội họa của Hội Mỹ thuật Việt Nam và là Ủy viên Ban chấp hành Hội Mỹ thuật Việt Nam khóa I từ năm 1957 đến năm 1983. Ông đảm nhiệm chức vụ Phó Tổng thư ký Hội Mỹ thuật Việt Nam từ năm 1957 đến năm 1958.[2]